From Item-Only to Query-Item: Query-Conditioned Generative Search with QGS in Quark
从物品到查询-物品：Quark搜索中的查询条件生成式搜索QGS
🧭 查询条件生成式搜索 · 线性注意力 ★ 深度解读
Alibaba Group · University of Science and Technology of China
以查询条件下一物品预测取代物品自回归，消除搜索序列中查询跳变造成的噪声监督，并引入线性HSTU和异构特征分组注意力实现工业落地。
📌 工作参考价值（4 点）
- 查询条件预测目标：在搜索、对话或Agent行为序列中，当存在明显的上下文切换（如新查询、新任务），可将下一查询/意图作为条件引入下一个动作预测，将噪声边际分布转为干净条件分布，有效降低训练损失波动。
- 线性HSTU编码器：将HSTU的U-gating与RWKV式因果线性递归结合，复杂度从O(L²)降至O(L)，在长度1000时保持排序质量并加速37%，适合电商推荐/搜索的长序列在线建模。
- HFG-Attention异构特征融合：将稀疏跨特征按语义分组，投影到统一维度后用HSTU注意力交互，保留FFN增强非线性，可用于推荐系统中稠密序列表示与稀疏交叉特征的融合，避免直接拼接信息损失。
- InfoNCE对比训练技巧：在batch内负采样时使用padding mask和collision mask（剔除重复目标），提升训练稳定性，可复用至生成式推荐模型的序列预测训练中。